#data selection

4 篇

SWE-Prime: Fewer Trajectories, Better Performance

SWE-Prime：用更少轨迹实现更好性能

🧭 轨迹数据筛选与分段SFT

Sun Yat-sen University · Huawei Cloud Computing Technologies Co., Ltd. · Chongqing University

提出多粒度两阶段SFT数据筛选，轨迹级选10%高质量子集并片段级屏蔽损失，训练效果超全量数据

📌 工作参考价值（4 点）

在电商导购/售后 Agent 的轨迹 SFT 中，可直接借鉴“成功轨迹 ≠ 优质监督”的假设：先按结果质量、过程质量、代表性筛掉含无效操作或高风险步骤的样本，再用小比例高质数据做 SFT，实验显示 10% 数据可超越全量；适合业务上语料噪声大、训练成本敏感的场景。
分段级 loss masking 很实用：保留完整轨迹作为上下文，但只让“对最终成交/解决方案有正向贡献、可学习且低风险”的 segment 参与梯度回传，能避免模型模仿冗余点击、重复搜索或危险操作。
三段评估指标可迁移：贡献度（是否影响最终结果）、可学习性（Agent 能否从该步骤归纳出策略）、风险（是否会放大幻觉/违规动作）可作为构建推荐/搜索 Agent 轨迹语料的自动过滤信号。
若是多步商品推荐/搜索召回 Agent，可按语义将轨迹切分为意图识别、query改写、候选筛选、解释推荐等片段，复用其片段级数据选择框架，只优化关键决策段。

Training | 2026-08-27 | cs.CL | score 7/10

Wnuan: Staged Post-Training for Question Answering over Proprietary Enterprise Knowledge

Wnuan：面向企业专有知识的分阶段后训练问答系统

🧭 后训练 · 领域适应 ★ 深度解读

Beijing Academy of Artificial Intelligence (BAAI) · Beijing District Heating Group Co., Ltd. (BDHG) · Beijing University of Posts and Telecommunications (BUPT)

三阶段后训练流程将企业 QA 可接受率从 52.76% 提升至 91.51%，其中残差错误采样 RL 显著优于全量采样

📌 工作参考价值（4 点）

残差错误采样策略：RL 微调阶段优先选择 SFT 后仍答错的样本进行 GRPO，在固定更新预算下比全量采样或等量随机采样 AAR 提升约 3 个百分点，可用于对话式推荐或智能客服的错误修正优先级设定。
通用数据混练抑制能力退化：在领域 SFT 中混入 48.3% 通用数据，以通用 benchmark 平均分最高为选择准则，牺牲少量领域精度换来指令跟随等通用能力的较好保持，对平衡业务专训与通用能力有直接参考。
文档到 QA 的自动化构造：将非结构化企业文档（如操作手册、技术标准）自动转化为自包含问答对，并经过规则、忠实度等多轮筛选，可用于从商品描述、活动规则等生成训练样本。
多模型集成评估 + 人工校准：采用两主评委加分歧时第三模型投票的集成判分，并用领域专家校准 90.5% 的一致性（Cohen's κ=0.796），适合低成本构建可靠的业务离线评估体系。

Training | 2026-08-02 | HF Daily | score 8/10

enterprise QA post-training GRPO residual error sampling SFT data selection

Trust Functions: Near-Lossless Weak-to-Strong Generalization by Learning When to Trust the Weak Teacher

通过学习何时信任弱教师实现近乎无损的弱到强泛化

🧭 弱到强泛化 · 数据选择 ★ 深度解读

Johns Hopkins University

提出神经信任函数，从教师内部表示预测弱标签正确性以过滤噪声，实现匹配甚至超越真值训练的弱监督泛化，并可通过迭代链滚雪球式提强。

📌 工作参考价值（4 点）

弱标签质量过滤：当业务中只有弱监督（如用户点击、规则伪标签）时，可训练一个小型神经网络，从强模型的隐层表示预测标签正确性，仅用高信任度样本训练主模型，大幅减少噪声。
隐式课程学习：信任函数倾向选择简单样本，形成从易到难的自然课程，有助于大模型稳定训练，可直接用于冷启动或样本不均衡场景。
迭代自我提升：将当前模型作为下一轮的“教师”，用信任函数筛选其输出作为新训练数据，逐步提升模型能力，类似自训练，但过滤机制能防止错误累积，适合在标注稀缺时扩增高质量训练集。
风险控制的数据选择：提供基于霍夫丁上界的阈值校准方法，只需少量标注数据即可自动确定高纯度子集，避免人工调参，适合自动化数据生产 pipeline。

Training | 2026-05-30 | HF Daily | score 8/10

weak-to-strong generalization trust functions data selection LLM supervision snowballing chain

Efficient Test-Time Finetuning of LLMs via Convex Reconstruction and Gradient Caching

通过凸重构和梯度缓存实现大模型高效测试时微调

🧭 测试时微调 · 凸近似样本选择 ★ 深度解读

University of Haifa

将查询感知的样本选择建模为稀疏凸近似，通过几何整数化和梯度重用，在测试时微调中取得显著更优的质量-效率帕累托前沿。

📌 工作参考价值（4 点）

查询感知的样本选择：电商/Agent 场景中可借鉴 Frank-Wolfe 在 embedding 空间对 query 做稀疏凸组合来选取训练样本，无需显式多样性惩罚项即可自动抑制冗余，比 kNN 或启发式信息增益选择更快且保持多样性，适用于在线低延迟样本挑选。
几何整数化与梯度重用：将连续权重转为整数计数的整数化过程，产生天然的重读样本块，从而允许缓存梯度并跨多次相同样本的更新步复用，减少 1.48× 的微调计算开销——适用于推荐系统中用户行为序列出现重复 item 或 prompt 的在线微调场景。
两阶段加速获得更大有效 batch：选择阶段比 SIFT 快 12× 以上（0.059s vs 0.524s），结合梯度重用，可在相同墙钟时间内使用更大 N，在强实时性约束下提升模型适应质量，这一思路可直接用于 Agent 每次查询时快速收集相关记忆并高效微调。
低维投影加速：当嵌入维度高时，可用 PCA 对候选池降维后再进行 Frank-Wolfe，保持选择质量的同时进一步压缩选择延迟，适用于大底座模型编码的高维表示。

Training | 2026-05-28 | cs.LG | score 8/10

test-time finetuning convex approximation Frank-Wolfe gradient caching data selection LLM adaptation